Ruska sinh tại Heidelberg. Ông học ở Đại học Kỹ thuật München từ năm 1925 tới năm 1927, sau đó vào học ở Đại học Kỹ thuật Berlin nơi ông thừa nhận rằng việc sử dụng điện tử cho kính hiển vi với bước sóng 1.000 lần ngắn hơn so với bước sóng của ánh sáng, có thể cho thấy hình ảnh nhiều chi tiết hơn là của kính hiển vi dùng ánh sáng, trong đó sự phóng đại bị hạn chế bởi kích thước của bước sóng. Năm 1931, ông chứng minh rằng một cuộn từ (magnetic coil) có thể dùng như một kính lúp điện tử, và đã sử dụng nhiều cuộn từ thành một loạt để làm kính hiển vi điện tử đầu tiên năm 1933.